L'intelligenza artificiale sostiene il governo tedesco. "Se non lo facciamo ora, tra cinque anni saremo indietro".

• Il Dipartimento IT del Ministero federale degli esteri, in collaborazione con la Bundesdruckerei GmbH, ha sviluppato la piattaforma di dati e intelligenza artificiale PLAIN.
• La soluzione è pensata per rispondere alle esigenze dell'amministrazione: aiuta a creare applicazioni e a condurre analisi dei dati utili, ad esempio, nelle negoziazioni con la Commissione europea.
• "Invece di affidarci esclusivamente a soluzioni consegnate direttamente a casa nostra, ci siamo resi conto che dovevamo investire nello sviluppo del nostro personale, altrimenti non saremmo mai riusciti a stare al passo con la tecnologia", afferma Hans Christian Mangelsdorf, responsabile dello studio dei dati presso il Ministero degli Affari Esteri tedesco, che ha sviluppato la piattaforma, in un'intervista con WNP.
• "Nel 2022, il governo federale ha deciso di istituire i cosiddetti data lab, ovvero laboratori di dati e intelligenza artificiale, in ogni ministero. Ora, ogni ministero federale ha almeno 5-10 ingegneri e data scientist. Di conseguenza, ora disponiamo di una rete di 100-120 persone reclutate dal mercato", aggiunge Mangelsdorf.

Il Ministero degli Esteri tedesco ha creato una piattaforma governativa, PLAIN . Di cosa si tratta esattamente e quale problema intende affrontare?

"Già nel 2022, eravamo certi che ci fosse un'enorme domanda di soluzioni di intelligenza artificiale, in particolare chatbot, sistemi basati sulla generazione aumentata del recupero (RAG) e altri. È stato allora che abbiamo preso la decisione strategica di creare un nostro cloud governativo che ci avrebbe aiutato a sviluppare e condividere tali soluzioni. Così, come Ministero degli Affari Esteri, abbiamo fatto un investimento greenfield: abbiamo costruito il nostro data center e creato un cloud completo, simile a quello offerto dai più grandi hyperscaler."

Volevamo una soluzione del genere, ma gestita in modo sovrano per garantire che funzionasse a prescindere da tutto.

Perché lo chiamate cloud sovrano se utilizzate soluzioni di aziende americane, ad esempio HPE?

"Possiamo scambiare componenti tra i vari livelli (hardware, software, applicazioni) e sostituirli facilmente se necessario. Se un componente software non è più disponibile, lo sostituiamo semplicemente o utilizziamo l'open source da zero. È un aspetto che promuoviamo fortemente come governo."

A margine, vale la pena sottolineare che HPE ha istituito linee di assemblaggio e centri di assistenza nell'UE per ridurre la propria dipendenza internazionale. Altre aziende stanno seguendo misure simili.

Perché la piattaforma PLAIN è stata sviluppata dal Ministero degli Affari Esteri? È un ministero piuttosto insolito quando si tratta di sviluppare soluzioni digitali.

"È un'ottima domanda. In Germania, a livello federale, abbiamo essenzialmente tre ministeri che possiedono competenze informatiche significative o gestiscono risorse informatiche. C'è il Ministero della Difesa, che sviluppa soluzioni per l'esercito, il Ministero dell'Interno e, da circa sei mesi, il Ministero per la Digitalizzazione e la Modernizzazione dello Stato. Questi ultimi due sono gli unici responsabili della digitalizzazione interna nazionale."

Tuttavia, il Ministero degli Esteri tedesco ha il chiaro mandato di fornire servizi IT relativi al nostro lavoro all'estero. Poiché nella pratica è difficile separare ciò che facciamo all'estero da ciò che facciamo in patria, abbiamo visto questo come un punto di partenza: affrontiamo i problemi in modo olistico, come governo.

Quindi hai deciso di farlo per l'intera amministrazione?

"Circa sei anni fa, avevo un team di data scientist e ingegneri che si occupava di cose molto interessanti, come analisi previsionali legate alle crisi. Stavamo conducendo i nostri esercizi di modellazione, cercando di "prevedere" il futuro. Stavamo creando dashboard e strumenti di simulazione. Ma il team faceva tutto questo sui propri laptop."

Volevamo dimostrarlo e metterlo in pratica in un'organizzazione che opera non solo all'interno del Paese, ma in 192 Paesi. Avevamo bisogno di un'infrastruttura che ci permettesse di prototiparlo e implementarlo rapidamente. Questo è stato il punto di partenza.

E pensavi che potesse essere esteso all'intero governo?

"Esatto. Abbiamo sviluppato un enorme strumento DevOps. Puoi usarlo per fare di tutto, dall'addestramento di grandi modelli linguistici alla creazione di dashboard, fino alla distribuzione di qualsiasi software tu ritenga appropriato."

Abbiamo configurato questa piattaforma per semplificare la vita a chi lavora con i dati e l'intelligenza artificiale. Non la utilizziamo per servizi rivolti ai cittadini, come portafogli digitali o sistemi finanziari e fiscali, perché questi richiedono tecnologie diverse.

"Se non lo facciamo ora, tra cinque anni saremo completamente indietro tecnologicamente"

Ti alleni da solo/a con un modello linguistico (LLM)?

Non stiamo ancora addestrando i nostri modelli da zero, ma possiamo perfezionare quelli esistenti. Utilizziamo Gamma 3, Mistral, in passato abbiamo utilizzato Luminous di Aleph Alpha e di recente abbiamo utilizzato LLAMA 3. Potremmo anche utilizzare modelli cinesi sulla nostra piattaforma, perché ci assicuriamo che sia chiusa e non comunichi con l'esterno.

Ciò significa che è necessario assicurarsi che i dati non fluiscano al di fuori dei modelli.

"Esatto, operiamo su un cloud chiuso. Questa è una necessità in un ambiente governativo, dove da un lato si vuole consentire ai dipendenti di utilizzare tali strumenti, ma dall'altro è necessario limitare il rischio di fuga di dati e informazioni."

Avete deciso di costruire la vostra infrastruttura, il che è stato probabilmente molto costoso. Perché non vi siete rivolti ad altri provider? Non mi riferisco agli hyperscaler, ma ad aziende europee più piccole.

La risposta è semplice: fin dall'inizio, abbiamo considerato questo programma come un banco di prova e uno strumento per migliorare le competenze dei nostri dipendenti. Invece di affidarci esclusivamente a soluzioni fornite direttamente a casa, ci siamo resi conto che dovevamo investire nello sviluppo del nostro personale, altrimenti non saremmo mai stati al passo con la tecnologia.

Consideriamo questo progetto anche un importante esercizio di aggiornamento delle competenze per i nostri team, per passare da una gestione delle infrastrutture più tradizionale a un cloud completamente containerizzato.

Quali sono stati i maggiori ostacoli all'implementazione della piattaforma in un'istituzione tradizionale come il governo tedesco?

"È vero, il governo è un'istituzione tradizionale. Prima di tutto, bisogna reclutare le persone giuste. E poi convincerle a lavorare nella pubblica amministrazione. È facile trovare ingegneri DevOps sul mercato, ma convincerli a voler lavorare per il governo federale e a sentirsi davvero parte del progetto è una sfida. E se li si attrae, bisogna anche trattenerli. Questo è un problema per tutti i governi, tra l'altro. Ma è necessario, perché se non lo facciamo ora, tra cinque anni saremo completamente indietro dal punto di vista tecnologico."

In secondo luogo, bisognava superare la logica a compartimenti stagni. In passato, era estremamente difficile convincere altre istituzioni governative che valesse la pena unire le forze piuttosto che fare tutto separatamente.

Lo sappiamo dalla Polonia.

"Il tema dei silos continua a ripresentarsi; è il nocciolo del problema. Tuttavia, per noi, un valido argomento a favore dell'interruzione di questo meccanismo è arrivato nel 2023, quando improvvisamente tutti nell'amministrazione volevano acquistare GPU. Si sono precipitati sul mercato, cercando di ottenere due, tre, quattro unità di NVIDIA H100. E noi abbiamo detto: 'Non preoccupatevi, ragazzi, il problema è già stato risolto'. Abbiamo 50 unità di questo tipo nel nostro data center."

Perché hai iniziato a costruirli un anno prima.

"E grazie a questo, eravamo un passo avanti agli altri. Potevamo dire ai nostri colleghi: 'Ci pensiamo noi'". In seguito, però, abbiamo dovuto convincerli che aveva senso utilizzare un'infrastruttura condivisa in cui potessero effettivamente collaborare.

Oggi abbiamo ministeri che lavorano effettivamente sulla nostra piattaforma, condividendo il codice. Creano le proprie branch su GitLab, poi le uniscono e pubblicano applicazioni disponibili all'intero governo. Ma vale la pena di dire onestamente che avevamo già un certo vantaggio.

Senso?

Nel 2022, il governo federale ha deciso di istituire i cosiddetti data lab, o laboratori di dati e intelligenza artificiale, in ogni ministero. Ora, ogni ministero federale ha almeno 5-10 ingegneri e data scientist. Di conseguenza, abbiamo ora una rete di 100-120 persone reclutate dal mercato, con una mentalità completamente diversa da quella dei burocrati: una mentalità basata sulla collaborazione.

Per queste persone, è naturale non fare tutto da soli. Dicono: usiamo l'open source, lavoriamo insieme. Lasciamo che il Ministero degli Affari Esteri gestisca il chatbot basato sull'intelligenza artificiale e noi ci occuperemo dello strumento di simulazione. Poi mettiamo tutto in un GitLab condiviso e lavoriamo in modo indipendente e sicuro.

In Polonia, ogni ministero ha un dipartimento IT, ma in senso molto tradizionale. Inoltre, ci sono diverse software house governative.

"Ed è qui che sta la differenza: l'IT, in senso tradizionale, si concentra sulla manutenzione dei sistemi, che è e continuerà a essere importante perché fornisce l'infrastruttura di base. Tuttavia, nel nuovo sistema, il team dovrebbe ispirare i superiori. Un ministro o un viceministro potrebbe intervenire e dire: 'Ho bisogno di un'analisi dei dati sulle nostre relazioni commerciali globali o sui rischi in un determinato Paese'. E questo innesca le azioni del team."

Non capita spesso, ma ci sono rari momenti nella storia della pubblica amministrazione in cui vengono implementate idee davvero grandiose. A mio parere, questo è stato uno di quei momenti. Oggi, constatiamo che se si hanno le persone giuste, la visione giusta e gli strumenti giusti al momento giusto, i team distribuiti possono realizzare cose davvero affascinanti. E a un ritmo molto veloce.

Quale vero problema possono risolvere?

- Ad esempio, le risposte alle interrogazioni parlamentari. In Germania, il governo è tenuto a rispondere alle interrogazioni dei parlamentari.

Anche in questo caso si tratta di una scala di 40.000 durante il mandato.

"Ne abbiamo circa 40.000 all'anno. Spesso è un problema di dati: devono essere raccolti ed elaborati, e potenzialmente l'intelligenza artificiale potrebbe essere utilizzata per generare risposte. Al momento non lo stiamo facendo, ma è un ottimo esempio di come si possa creare rapidamente una soluzione di tipo Pareto che funzioni abbastanza bene."

Quindi utilizzi la piattaforma per supportare il processo decisionale?

Alcuni ministeri utilizzano piattaforme per la gestione dei dati all'interno delle proprie organizzazioni: dashboard classiche. Altri, incluso noi, le utilizzano per implementare chatbot sicuri basati su LLM, strumenti di sintesi e traduzioni. Altri ancora le utilizzano per simulazioni, come nei negoziati internazionali o nei colloqui di bilancio con la Commissione Europea. Il denominatore comune è sempre quello di lavorare con grandi set di dati, per i quali in precedenza mancavano strumenti adeguati.

Poiché il tipico dipendente pubblico ha un portatile con una suite per ufficio, e quello non è il posto giusto per programmare e distribuire applicazioni, ora ha accesso a una piattaforma che può utilizzare praticamente da qualsiasi sistema.

"Invece di pompare miliardi, è meglio usare il denaro pubblico per sostenere le aziende"

Ci sono state controversie sull'implementazione del sistema, nella società o sui media? Ad esempio, domande sul GDPR o sull'utilizzo dei dati?

Non ci sono state critiche esplicite, ma piuttosto domande. Queste riguardavano principalmente la sicurezza informatica, che è stata una delle ragioni principali per l'avvio del progetto. Sono state sollevate anche domande relative al GDPR, soprattutto da parte dei rappresentanti dei lavoratori.

Questa è stata un'ottima opportunità per spiegare ai colleghi come funziona l'infrastruttura cloud. Sebbene sia indipendente dal GDPR, sviluppiamo applicazioni specifiche sulla piattaforma che potrebbero utilizzare dati aggiuntivi e, in futuro, potrebbero trasformarsi in sistemi ad alto rischio. Pertanto, era importante che i rappresentanti dei dipendenti comprendessero che non dovevano preoccuparsi della piattaforma in sé, ma piuttosto di casi d'uso specifici.

E il rispetto dell'AI Act è un problema per voi?

No, perché la piattaforma stessa è agnostica. Può utilizzare qualsiasi modello. E quando si tratta di applicazioni, cerchiamo di mantenerle il più piccole possibile.

Quindi non ci sono problemi con i sistemi ad alto rischio?

"Potrebbero emergere, ad esempio, quando inizieremo a utilizzare l'intelligenza artificiale per analizzare le domande di visto. Questo non verrebbe automaticamente considerato un'intelligenza artificiale ad alto rischio, ma richiederebbe documentazione e misure di sicurezza."

Anche la polizia utilizza la piattaforma?

"No, non ancora. Si concentra su cloud privati, completamente isolati da Internet. Il nostro prodotto è un cloud comunitario, con accesso esterno controllato e protetto, perché gli sviluppatori devono scaricare immagini di container o pubblicare codice. Ma i servizi di sicurezza preferiscono sistemi completamente isolati. Un giorno potrebbero utilizzare parti della nostra piattaforma, ma non sarà mai l'unica soluzione."

PLAIN può essere replicato in altri Paesi o a livello della Commissione Europea?

- Sì. Ne stiamo già parlando con i nostri partner e avremo degli incontri su questo argomento alla fine dell'anno.

Non è possibile che l'Europa abbia trascurato di elaborare soluzioni simili? Tra due o tre anni, non sarà troppo tardi?

No. A mio parere, abbiamo perso l'opportunità di sviluppare hyperscaler. Tuttavia, la questione delle soluzioni software sovrane è ancora aperta. Quasi tutto il necessario per supportare il cloud esiste in open source.

L'Europa può quindi costruire un'alternativa agli Stati Uniti e alla Cina?

Sì, anche se è importante ricordare che il problema non è la tecnologia, ma il modello di business. Il mercato degli hyperscaler è già occupato. Entrarvi è una spesa enorme. Quindi, invece di investire miliardi, è meglio utilizzare denaro pubblico per sostenere le aziende nella creazione di modelli di business europei sostenibili.

Come possono paesi come la Polonia costruire la sovranità digitale con budget inferiori a quelli della Germania?

- Concentratevi sui vostri punti di forza. Non ha senso che 15 paesi in Europa facciano la stessa cosa, perché ognuno di loro sarebbe troppo piccolo. Ma se uniamo le forze, è possibile.

La Germania aspira alla piena sovranità digitale?

"No, è impossibile. Ci sono effettivamente delle mosse, come l'abbandono di specifici software che richiedono licenze nelle scuole. Ma è davvero una questione di accettazione da parte degli utenti. Alcuni governi tedeschi sono passati a Linux e all'open source 20 anni fa, per poi tornare a MS Office. Tecnicamente, tutto è possibile, ma la chiave è se gli utenti lo accettano."

Tuttavia, abbiamo alcune iniziative interessanti, come OpenDesk, creato dallo ZenDis Center for Digital Sovereignty, interamente open source e con supporto tecnico europeo. Potrebbe rappresentare una valida alternativa tra un anno o diciotto mesi.

Quali sono le prossime tappe del programma PLAIN?

- Innanzitutto, renderlo disponibile a tutte le agenzie federali che desiderano utilizzarlo.

In secondo luogo, sviluppare progetti congiunti che coinvolgano più ministeri contemporaneamente, ad esempio in materia di intelligenza artificiale, e renderli accessibili a tutti i dipendenti.

In terzo luogo, risolvere i problemi associati allo sviluppo software in "container". Oggi, gli sviluppatori scaricano immagini da GitHub, ignorando gli indicatori di sicurezza (CVE). E se si vuole passare dalla sperimentazione alla produzione, è necessario controllarla. Pertanto, alla prossima Smart Country Convention di Berlino, annunceremo una partnership con il Center for Digital Sovereignty, che manterrà e condividerà 40-50 delle più importanti immagini di base in una versione sicura e costantemente aggiornata, disponibile per l'intero governo.